Danh từ Tú tài I và Tú tài II lần đầu tiên được dùng ở Việt Nam vào thời Pháp thuộc. Tháng Tám năm 1928 Nha học chính Đông Dương mở kỳ thi Tú tài I đầu tiên. Sang năm sau vào Tháng Chín 1929 thì tổ chức kỳ thi Tú tài II.[1] Lúc bấy giờ bằng Tú tài I và II lấy mẫu từ bằng Baccalauréat Première Partie và Deuxième Partie của Pháp, dùng tiếng Pháp làm chuyển ngữ, tiếng Việt chỉ là ngôn ngữ phụ trong trường học. Năm 1945 vua Bảo Đại ra đạo luật dùng chữ Quốc ngữ trong kỳ thi Tú tài[1] nhưng phải đợi đến thời Đệ Nhất Cộng hòa Việt Nam tiếng Việt mới được đưa vào làm ngôn ngữ chính.[2]

Khi đất nước Việt Nam chia đôi thành Việt Nam Cộng hòa ở phía nam vĩ tuyến 17 và Việt Nam Dân chủ Cộng hòa ở phía bắc thì danh từ Tú tài bị bỏ hẳn ở ngoài Bắc, thay vào đó là tên "bằng tốt nghiệp cấp III".[1] Ở Miền Nam thì tiếp tục dùng Tú tài I và II là hai đợt thi tuyển quan trọng ở bậc trung học.